Thế cân bằng giữa triều đình với Mạc phủ, hình thành từ thời kỳ Kamakura và phát triển lên đến đỉnh cao vào thời kỳ Edo, mà như nhà sử học Edwin O. Reischauer đã gọi là thể chế phong kiến trung ương tập quyền. Đến thời kỳ này, tầng lớp võ sỹ Nhật Bản mà đại diện là Mạc phủ Tokugawa trở thành kẻ thống trị không gì lay chuyển nổi. Mạc phủ mới của Tokugawa Ieyasu thành lập trên cơ sở những thành quả của Oda Nobunaga và Toyotomi Hideyoshi. Vốn đã hùng mạnh, Ieyasu hưởng lợi từ việc chuyển đến vùng Kantō giàu có. Ông giữ đến 2,5 triệu koku đất, đặt trụ sở ở Edo, một tòa thành có vị trí chiến lược (sau này trở thành Tokyo), và có thêm 2 triệu koku đất nữa và 38 chư hầu dưới trướng. Sau khi Hideyoshi qua đời, Ieyasu nhanh chóng nắm quyền kiểm soát gia đình Toyotomi.

Chiến thắng của Ieyasu trước các đại danh miền Tây trong trận Sekigahara năm 1600 đã khẳng định quyền lực của ông trên toàn cõi Nhật Bản. Ông nhanh chóng thủ tiêu nhiều gia đình đại danh đối địch, giảm bớt quyền thế của một số khác, ví dụ như nhà Toyotomi, và chia chiến lợi phẩm cho gia đình mình và các đồng minh. Ieyasu vẫn không thể hoàn toàn kiểm soát được các đại danh phía Tây, nhưng việc ông nhận được tước vị Chinh di Đại tướng quân đã củng cố hệ thống đồng minh. Sau khi xây dựng vững chắc hơn nữa nền tảng quyền lực của mình, Ieyasu đặt con trai mình là Hidetada (1579-1632) lên ngôi Tướng quân và tự mình làm Tướng quân nghỉ hưu năm 1605. Nhà Toyotomi vẫn là một mối đe dọa lớn, và Ieyasu đã dành cả thập kỷ tiếp theo để tận diệt gia tộc này. Năm 1615, thành lũy của nhà Toyotomi tại Osaka bị quân đội Tokugawa tiêu diệt.

Thời kỳ Tokugawa (hay Edo) mang lại 250 năm ổn định cho Nhật Bản. Hệ thống chính trị phát triển thành thứ được các nhà sử học gọi là Mạc phiên, sự kết hợp giữa thuật ngữ Mạc phủ và phiên (han) để miêu tả chính quyền và xã hội thời kỳ này. Trong hệ thống Mạc phủ, Tướng quân có quyền lực quốc gia và các đại danh có quyền lực tại địa phương. Điều đó thể hiện sự thống nhất mới trong cơ cấu phong kiến, được miêu tả là một chế độ hành chính ngày càng lớn để quản lý sự kết hợp giữa tập quyền và tản quyền. Nhà Tokugawa ngày càng mạnh hơn trong thế kỷ thống trị đầu tiên: việc tái phân phối đất mang lại cho họ gần 7 triệu koku, kiểm soát các thành phố quan trọng nhất, và hệ thống địa tô mang lại khoản thu to lớn.

Hệ thống thứ bậc phong kiến được hoàn thiện với rất nhiều đẳng cấp đại danh. Những người họ hàng với nhà Tokugawa gọi là shinpan, hay "thân phiên". Họ là 23 đại danh bao quanh đất đai nhà Tokugawa; các đại danh này đều có họ trực tiếp với Ieyasu. Shinpan giữ các tước hiệu vinh dự nhất và các vị trí cố vấn quan trọng nhất ở Mạc phủ. Đẳng cấp thứ hai là fudai, hay "Phổ Đại", được ban đất đai ở gần lãnh địa nhà Tokugawa cho sự phục vụ trung thành của mình. Vào thế kỷ 18, 145 fudai kiểm soát các "han’’ nhỏ hơn, cái lớn nhất có 250.000 koku. Thành viên của tầng lớp fudai giữ phần lớn các chức vụ lớn trong Mạc phủ. 97 han chia thành ba nhóm là các đại danh tozama, đối thủ cũ hay đồng minh mới. Tozama phần lớn đều nằm ở ngoại biên quần đảo và thu được khoảng gần 10 triệu koku sản lượng. Vì Tozama ít trung thành với đại danh nhất, họ luôn bị quản lý một cách chặt chẽ và đối xử một cách hào phóng, mặc dù họ không được giữ các vị trí ở chính quyền trung ương.

Nhà Tokugawa không chỉ củng cố quyền kiểm soát của mình với nước Nhật mới được tái thống nhất, họ cũng có một quyền lực chưa từng có với Thiên hoàng, triều đình, tất cả các đại danh, và các trật tự tôn giáo. Thiên hoàng đóng vai trò như một giá đỡ quan trọng cho quyền lực chính trị của Tướng Quân, người bề ngoài là bầy tôi của Hoàng gia. Nhà Tokugawa giúp Hoàng gia lấy lại vinh quang của mình bằng cách xây dựng lại cung điện của mình và nhận thêm đất đai. Để đảm bảo mối quan hệ bền chặt giữa Hoàng gia và nhà Tokugawa, cháu gái của Tokugawa được đặt lên ngôi Hoàng hậu năm 1619.

Hàng loạt các bộ luật được ban hành để điều chỉnh các gia đình đại danh. Tập hợp các quy tắc xã hội hoàn thiện đạo đức cá nhân, hôn nhân, trang phục, và các loại vũ khí và quân đội được sử dụng; yêu cầu các lãnh chúa phong kiến phải ở Edo cách niên (hệ thống sankin kōtai); cấm đóng các con tàu vượt đại dương; đặt Thiên Chúa Giáo ra ngoài vòng pháp luật; hạn chế số thành với mỗi lãnh địa (Phiên bang) và quy định các quy tắc của Mạc phủ là luật quốc gia. Mặc dù các đại danh không được thu thuế, họ thường xuyên được thu sưu để xây dựng quân đội, hậu cần và các công việc công cộng như các dự án thành, đường, cầu, và cung điện. Rất nhiều quy tắc và các thứ thuế khác nhau không chỉ củng cố quyền lực của nhà Tokugawa mà còn suy yếu sự giàu có của các đại danh, do đó giảm mối đe dọa đối với chính quyền trung ương. Các "phiên", một thời là các lãnh địa tập trung quân sự, trở thành các đơn vị hành chính địa phương. Các đại danh thực hiện mọi quyền hành hành chính ở trong lãnh địa của mình và hệ thống thuộc tướng, chế độ quan lại và dân thương phức tạp. Lòng trung thành cũng đòi hỏi đối với các thể chế tôn giáo, vốn đã bị suy yếu đi nhiều nhờ Nobunaga và Hideyoshi, và rất nhiều biện pháp để kiểm soát máy.